Năm 1908, Patterson và Palmer lên đường sang châu Âu tạm trú trong vòng 2 năm. Ông bổ nhiệm Watson làm giám đốc phụ trách khách hàng không vì một lý do rõ ràng nào cả. Trong 2 năm đó, Watson có đội ngũ bán hàng NCR của riêng mình và doanh số đã tăng gấp đôi. Khi Patterson trở lại năm 1910, ông rất hài lòng và tặng Watson một chiếc xe hơi đắt tiền hiệu Piercerrow cùng một ngôi nhà. Ông đưa Watson đi khắp đất nước để thăm các đại lý của NCR.

Năm 1912, toàn bộ những người trong ban quản trị của NCR bị chính thức buộc tội. Kẻ ra đi Chalmers đã tặng lại một sự trả thù ngọt ngào bằng cách ra làm nhân chứng buộc tội.

Ở tuổi 37, bị buộc tội và đang chờ ngày khởi tố, Watson gặp Kittredge, người sau này trở thành vợ ông. Kittredge kém Watson 9 tuổi và là con gái một gia đình danh giá ở Dayton. Patterson là bạn của bố cô. Họ sống gần nhau và cùng tham gia một câu lạc bộ. Khi cô và Watson hẹn hò, cô đã sẵn sàng lập gia đình và Watson, ở tuổi gần 40 cũng đã sẵn sàng.

Cuối cùng thì Watson cũng không làm việc cho NCR nữa. Tháng 5.1914, sau gần nửa năm thất nghiệp, Watson vào làm việc với cương vị người lãnh đạo cao nhất của công ty Computing Tabulating Recording. Ông đổi tên công ty thành International Business Machines (IBM) năm 1924. Dưới sự lãnh đạo của ông, IBM đã đạt được những kỷ lục ngoạn mục.

Vào năm 1930, năm đầu tiên diễn ra cuộc suy thoái lớn, lợi nhuận của NCR giảm đi một nửa (chỉ còn 3,6 triệu USD).Trong khi đó lợi nhuận của IBM tăng 10% (đạt 7,4 triệu đô la)và lần đầu tiên họ vượt được NCR. Sự so sánh lợi nhuận trong suốt thập kỷ suy thoái thật đáng kinh ngạc.

Từ năm 1930 đến hết năm 1940, IBM thu được tổng số 83,5 triệu đôla, NCR 16,1 triệu. Tiền lãi từ việc bán hàng thậm chí còn chênh lệch hơn rất nhiều. Doanh số bán hàng của IBM không vượt được NCR đến tận năm 1940 (46,3 triệu USD so với 39,9 triệu USD). Cũng như John Patterson đã chứng tỏ rằng George Phillips sai vì đã đánh giá không đúng ngành kinh doanh máy đếm tiền năm 1884, năm 1914 Watson đã"thề sẽ xây dựng một công ty lớn hơn và thành công hơn Patterson". Và ông đã thành công.